检测器|小时_前沿科技探究之AI工具：Anomalydetection

篇首语：本文由编程笔记#小编为大家整理，主要介绍了前沿科技探究之AI工具：Anomaly-detection相关的知识，希望对你有一定的参考价值。

anomaly_detection是openGauss集成的、可以用于数据库指标采集、预测指标趋势变化、慢SQL根因分析以及异常监控与诊断的AI工具&＃xff0c;是DBMind套间中的一个组件。支持采集的信息分为三块&＃xff0c;分别是os_exporter、database_exporter、wdr&＃xff0c;os_exporter主要包括IO_Read、IO_Write、IO_Wait、CPU_Usage、Memory_Usage、数据库数据目录磁盘空间占用Disk_space&＃xff1b;database_exporter主要包括QPS、部分关键GUC参数&＃xff08;work_mem、shared_buffers、max_connections&＃xff09;、数据库临时文件、外部进程情况、外部连接数&＃xff1b;wdr包括慢SQL文本、SQL开始执行时间、SQL结束执行时间相关信息。在异常监控方面&＃xff0c;anomaly_detection可以同时对IO_Read、IO_Write、IO_Wait、CPU_Usage、Memory_Usage和Disk_Space多个指标的未来变化趋势进行预测&＃xff0c;当发现某个指标在未来某段时间或者某个时刻会超出人工设置的阈值&＃xff0c;该工具会通过日志进行报警。在慢SQL根因分析方面&＃xff0c;工具会定期从WDR报告中拉取慢SQL信息&＃xff0c;并对慢SQL的根因进行诊断&＃xff0c;最后将诊断结果存放到日志文件中&＃xff0c;同时该工具还支持用户交互式慢SQL诊断&＃xff0c;即对用户输入的慢SQL进行根因分析&＃xff0c;并将结果反馈给用户。

anomaly_detection由agent和detector两大模块组成。agent和openGauss数据库环境部署在同一个服务器上&＃xff0c;该模块主要有两个作用。一个是定时采集数据库指标数据&＃xff0c;并将采集到的数据存放到缓冲队列中&＃xff1b;另一个作用是将缓冲队列中数据定时发送到detector的collector子模块中。

detector模块由collector模块和monitor模块组成&＃xff0c;collector模块和agent模块通过http或https进行通信&＃xff0c;接受agent模块push的数据并存储到本地。monitor模块基于本地数据对指标的未来变化趋势进行预测和异常报警&＃xff0c;另外结合系统和WDR报告等各种相关联信息&＃xff0c;分析慢SQL的根因。

前提条件与使用事项

• 数据库状态正常。
• 工具运行过程中&＃xff0c;如果系统时间被篡改&＃xff0c;可能会造成慢SQL数据采集失效。
• 工具不支持在备节点上采集。
• 使用登录到数据库宿主机上的Linux用户&＃xff0c;需要将$GAUSSHOME/bin添加到PATH环境变量中&＃xff0c;即能够直接运行gsql、gs_guc、gs_ctl等数据库运维工具。
• Python版本建议为Python3.6及以上&＃xff0c;且运行环境中已经安装相应依赖&＃xff0c;并能够正常启动调优程序。
• 本工具由Agent和Detector组成&＃xff0c;Agent和Detector之间通过’http’或者’https’方式传递数据&＃xff0c;因此需要保证Agent服务器和Detector服务器之间能够正常通信。
• Detector模块运行collector和monitor服务&＃xff0c; 需要分别启动。
• 如果使用’https’方式进行通信&＃xff0c;需要准备CA证书以及Agent和Detector的证书和密钥&＃xff0c;并分别放入项目根目录certificate下的ca、agent、collector中&＃xff0c;同时将密钥加密密码放入certificate的pwf中&＃xff0c;并将其权限设置为600&＃xff0c;防止其他用户进行读写操作。用户也可以使用share中的脚本生成证书和密钥。
• 建议用户配置自己的python环境&＃xff0c;以免影响其他功能使用&＃xff08;例如使用miniconda&＃xff09;。
• 慢SQL的根因分析功能需要WDR报告&＃xff0c;用户需要开启track_stmt_stat_level&＃61;‘OFF,L1’, log_min_duration_statement&＃61;3000&＃xff08;慢SQL阈值&＃xff0c;用户可按需设定&＃xff09;&＃xff0c;单位ms。
• 如果将detecor和数据库部署在同一服务器上&＃xff0c;则collector服务端口不能和数据库本地端口相同&＃xff0c;否则将无法启动进程。

原理简介

图1 anomaly_detection结构图
anomaly_detection是一个独立于数据库内核之外的工具&＃xff0c;其结构如图1所示&＃xff0c;anomaly_detection主要由agent和detector模块组成&＃xff1b;

• agent&＃xff1a;数据代理模块&＃xff0c;由Source、Channel以及Sink组成。部署在数据库环境上&＃xff0c;用于采集数据库中的指标&＃xff0c;并通过http或者https方式将其传送给远端检测器模块。
• detector&＃xff1a;检测器模块&＃xff0c;负责收集Agent推送的数据并存储&＃xff0c;同时该模块基于时序预测和异常检测等算法对数据库指标进行监控和异常检测&＃xff0c;同时提供慢SQL根因服务功能。

anomaly_detection的运行和安装方法

1、切换到anomaly_detection目录下。对于openGauss社区代码来说&＃xff0c;该路径在openGauss-server/src/gausskernel/dbmind/tools/anomaly_detection。对于已经安装的数据库系统&＃xff0c;则该源代码路径为 $GAUSSHOME/bin/dbmind/anomaly_detection。
2、 在当前目录下可以看到 requirements.txt 等文件&＃xff0c;通过pip包管理工具根据该 requirements.txt 文件安装依赖&＃xff1a;

pip install -r requirements.txt


3、 安装成功后可执行main.py。以获取帮助信息为例&＃xff0c;则可以执行&＃xff1a;

python main.py --help # 可以直接通过该命令执行获取帮助的动作&＃xff0c;其他功能使用方法类似


证书生成

证书生成当使用https方式进行通信时&＃xff0c;需要用户提供证书&＃xff0c;anomaly_detection也提供了证书生成工具。

生成CA根证书&＃xff0c;在anomaly_detection的share目录下&＃xff0c;执行以下命令&＃xff1a;

sh gen_ca_certificate.sh


该脚本会在anomaly_detection根目录下创建certificate目录&＃xff0c;其中包括ca、server、agent三个子目录&＃xff0c;ca中存放根证书ca.crt和密钥文件ca.key。

生成server端证书和密钥文件&＃xff0c;在anomaly_detection的share目录下&＃xff0c;执行以下命令&＃xff1a;

sh gen_certificate.sh

# please input the basename of ssl certificate: ../certificate/server

# please input the filename of ssl certificate: server

# please input the local host: 127.0.0.1

# please input the password of ca and ssl separated by space:


该脚本需要用户分别输入生成证书与密钥文件存放目录、证书与密钥文件名称、detector端服务器IP地址、ca证书密码和当前证书密码(用空格分开)。脚本最后会在certificate的server下生成server.crt和server.key。

1、生成agent端证书密钥和文件&＃xff0c;在anomaly_detection的share目录下&＃xff0c;执行以下命令&＃xff1a;

sh gen_certificate.sh

# please input the basename of ssl certificate: ../certificate/agent

# please input the filename of ssl certificate: agent

# please input the local host: 127.0.0.1

# please input the password of ca and ssl separated by space:


该脚本需要用户分别输入生成证书与密钥文件存放目录、证书与密钥文件名称、agent端服务器IP地址、ca证书密码和当前证书密码(用空格分开)。脚本最后会在certificate的agent下生成agent.crt和agent.key。

anomaly_detection的配置文件说明

anomaly_detection 在运行前需要加载a-detection.conf和metric_task.conf两个配置文件&＃xff0c;可以通过 python main.py –help 命令查看配置文件路径&＃xff1a;

a-detection.conf&＃xff1a;该配置文件包含agent、server、database、security、forecast、log六个section&＃xff0c;参数解释如下&＃xff1a;

[database]
storage_duration &＃61; 12H # 数据存储时间长度&＃xff0c;默认12小时
database_dir &＃61; ./data # 数据存储目录
[security]
tls &＃61; False
ca &＃61; ./certificate/ca/ca.crt
server_cert &＃61; ./certificate/server/server.crt
server_key &＃61; ./certificate/server/server.key
agent_cert &＃61; ./certificate/agent/agent.crt
agent_key &＃61; ./certificate/agent/agent.key
[server]
host &＃61; 0.0.0.0 # 服务端IP地址
listen_host &＃61; 0.0.0.0
listen_port &＃61; 8080
white_host &＃61; 0.0.0.0 # IP白名单
white_port &＃61; 8000 # 端口号白名单
[agent]
source_timer_interval &＃61; 10S # agent端数据采集频率
sink_timer_interval &＃61; 10S # agent端数据发送频率
channel_capacity &＃61; 1000 # 缓冲队列最大长度
db_host &＃61; 0.0.0.0 # agent节点IP地址
db_port &＃61; 8080 # agent节点端口号
db_type &＃61; single # agent节点类型, single: 单机&＃xff0c;cn&＃xff1a; CN节点、dn&＃xff1a; DN节点
[forecast]
forecast_alg &＃61; auto_arima # 时序预测算法&＃xff0c;auto_arima、fbprophet(需要用户自行安装)
[log]
log_dir &＃61; ./log # 日志文件位置


metric_task.conf: 该配置文件包括detector method, os_expoeterhe trend_parameter三个sections&＃xff0c;参数结束如下&＃xff1a;

[detector_method]
trend &＃61; os_exporter # 用于时序预测的表名
slow_sql &＃61; wdr # 用户慢SQL诊断的表名
[os_exporter]
cpu_usage_minimum &＃61; 1 # cpu_usage的下限值
cpu_usage_maximum &＃61; 10 # cpu_usage的上限值
memory_usage_minimum &＃61; 1 # memory_usage的下限值
memory_usage_maximum &＃61; 10 # memory_usage的上限值
io_read_minimum &＃61; 1
io_read_maximum &＃61; 10
io_write_minimum &＃61; 1
io_write_maximum &＃61; 10
io_wait_minimum &＃61; 1
io_wait_maximum &＃61; 10
disk_space_minimum &＃61; 1
disk_space_maximum &＃61; 10
[common_parameter]
data_period &＃61; 1000S # 是用于时序预测的历史数据长度&＃xff0c;支持整数加时间单位&＃xff08;如&＃xff1a;100S、2M、10D&＃xff09;。
interval &＃61; 20S # 监控间隔
freq &＃61; 3S # 趋势预测频率
period &＃61; 2 # 趋势预测长度


说明&＃xff1a; - 支持的时间单位&＃xff1a;

• ‘S’&＃xff1a;second&＃xff0c;秒。
• ‘M’&＃xff1a;minute&＃xff0c;分。
• ‘H’&＃xff1a;hour&＃xff0c;小时。
• ‘D’&＃xff1a;day&＃xff0c;天。
• ‘W’&＃xff1a;week&＃xff0c;周。
• minimum和maximum至少提供一个&＃xff0c;不能都不提供。
• freq和period共同决定时序预测结果&＃xff0c;例子&＃xff1a;freq&＃61;2S&＃xff0c;period&＃61;5, 则会预测未来2S、4S、6S、8S、10S的值。
• 建议参数配置的时候&＃xff0c;保证训练数据长度大于预测长度&＃xff0c;否则预测效果会受影响。

工具只针对os_exporter中的指标进行趋势预测与阈值异常检测&＃xff0c;支持用户添加新的监控参数&＃xff0c;步骤如下&＃xff1a;

1、在task/os_exporter.py的OS_exporter中编写获取指标的功能函数&＃xff0c;并将该函数加入到output的result列表中&＃xff0c;例如&＃xff1a;

&＃64;staticmethod
def new_metric():
return metric_value

def output(self):
result &＃61; [self.cpu_usage(), self.io_wait(), self.io_read(),
self.io_write(), self.memory_usage(), self.disk_space(), self.new_metric()]
return result



2、在table.json的os_exporter中&＃xff0c;将new_metric字段加入到“create table“中&＃xff0c;并在“insert”中加上字段类型信息&＃xff0c;例如&＃xff1a;

"os_exporter":
"create_table": "create table os_exporter(timestamp bigint, cpu_usage text, io_wait text, io_read text, io_write text, memory_usage text, disk_space text, new_metric text);",
"insert": "insert into os_exporter values(%d, \\"%s\\", \\"%s\\", \\"%s\\", \\"%s\\", \\"%s\\", \\"%s\\", \\"%s\\");",


3、在task/metric_task.conf中添加指标的上限值或者下限值&＃xff0c;例如&＃xff1a;

[os_exporter]
new_metric_minimum &＃61; 0
new_metric_maximum &＃61; 10

获取帮助

启动调优程序之前&＃xff0c;可以通过如下命令获取帮助信息&＃xff1a;

源码方式&＃xff1a;python main.py --help


输出帮助信息结果如下&＃xff1a;

usage:
python main.py start [--role agent,collector,monitor] # start local service.
python main.py stop [--role agent,collector,monitor] # stop local service.
python main.py start [--user USER] [--host HOST] [--project-path PROJECT_PATH] [--role agent,collector,monitor]
# start the remote service.
python main.py stop [--user USER] [--host HOST] [--project-path PROJECT_PATH] [--role agent,collector,
monitor] # stop the remote service.
python main.py deploy [--user USER] [--host HOST] [--project-path PROJECT_PATH] # deploy project in remote host.
python main.py diagnosis [--query] [--start_time] [--finish_time] # rca for slow SQL.
python main.py show_metrics # display all monitored metrics(can only be executed on &＃39;detector&＃39; machine).
python main.py forecast [--metric-name METRIC_NAME] [--period] [--freq]
[--forecast-method auto_arima, fbprophet] [--save-path SAVE_PATH] # forecast future trend of
metric(can only be executed on &＃39;detector&＃39; machine).
Anomaly-detection: a time series forecast and anomaly detection tool.
positional arguments:
start,stop,deploy,show_metrics,forecast,diagnosis
optional arguments:
-h, --help show this help message and exit
--user USER User of remote server.
--host HOST IP of remote server.
--project-path PROJECT_PATH
Project location in remote server.
--role agent,collector,monitor
Run as &＃39;agent&＃39;, &＃39;collector&＃39;, &＃39;monitor&＃39;. Notes: ensure
the normal operation of the openGauss in agent.
--metric-name METRIC_NAME
Metric name to be predicted, you must provide an specified metric name.
.
--query QUERY target sql for RCA.
Currently, the join operator is not supported, and the accuracy of the result
is not guaranteed for SQL syntax containing "not null and".
--start_time START_TIME
start time of query
--finish_time FINISH_TIME
finish time of query
--period PERIOD Forecast periods of metric, it should be integernotes:
the specific value should be determined to the
trainnig data.if this parameter is not provided, the
default value &＃39;100S&＃39; will be used.
--freq FREQ forecast gap, time unit: S: Second, M: Minute, H:
Hour, D: Day, W: Week.
--forecast-method FORECAST_METHOD
Forecast method, default method is &＃39;auto_arima&＃39;,if
want to use &＃39;fbprophet&＃39;, you should install fbprophet
first.
--save-path SAVE_PATH
Save the results to this path using csv format, if
this parameter is not provided,, the result wil not be
saved.
-v, --version show program&＃39;s version number and exit
epilog:
the &＃39;a-detection.conf&＃39; and &＃39;metric_task.conf&＃39; will be read when the program is running,
the location of them is:
a-detection.conf: /openGauss-server/src/gausskernel/dbmind/tools/anomaly_detection/a-detection.conf.
metric_config: /openGauss-server/src/gausskernel/dbmind/tools/anomaly_detection/task/metric_task.conf.

使用示例

为了方便用户理解部署过程&＃xff0c;假设当前数据库节点信息如下&＃xff1a;

IP: 10.90.110.130
PORT: 8000
type: single


detector服务器信息&＃xff1a;

IP: 10.90.110.131
listen_host &＃61; 0.0.0.0
listen_port &＃61; 8080


部署的启动流程如下&＃xff1a;

配置文件修改

首先需要更改配置文件 a-detection.conf&＃xff0c;主要涉及其中的两个session&＃xff1a;

[database]
storage_duration &＃61; 12H # 数据存储时间长度&＃xff0c;默认12小时
database_dir &＃61; ./data # 数据存储目录
[security]
tls &＃61; False
ca &＃61; ./certificate/ca/ca.crt
server_cert &＃61; ./certificate/server/server.crt
server_key &＃61; ./certificate/server/server.key
agent_cert &＃61; ./certificate/agent/agent.crt
agent_key &＃61; ./certificate/agent/agent.key
[server]
host &＃61; 10.90.110.131
listen_host &＃61; 0.0.0.0
listen_port &＃61; 8080
white_host &＃61; 10.90.110.130
white_port &＃61; 8000
[agent]
source_timer_interval &＃61; 10S
sink_timer_interval &＃61; 10S
channel_capacity &＃61; 1000
db_host &＃61; 10.90.110.130
db_port &＃61; 8080
db_type &＃61; single
[forecast]
forecast_alg &＃61; auto_arima
[log]
log_dir &＃61; ./log


服务启动与停止

启动本地agent服务&＃xff1a;

python main.py start --role agent


停止本地agent服务&＃xff1a;

python main.py stop --role agent


启动本地collector服务&＃xff1a;

python main.py start --role collector


停止本地collector服务&＃xff1a;

python main.py stop --role collector


启动本地monitor服务&＃xff1a;

python main.py start --role monitor


停止本地monitor服务&＃xff1a;

python main.py stop --role monitor

命令参考

表 1 命令行参数

AI_SERVER

ai_server为anomaly_detection特性的分离特性&＃xff0c;在原anomaly_detection数据采集功能的基础上增加了采集类型、采集项、数据存储模式&＃xff0c;仅用于数据采集&＃xff0c;后续将整合到anomaly_detection中&＃xff0c;该特性主要包含server组件和agent组件&＃xff0c;agent须部署到数据库节点&＃xff0c;用于数据采集&＃xff0c;server部署在独立节点进行数据收集存储。

数据存储方式包括&＃xff1a;sqlite、mongodb、influxdb。

采集项如表1&＃xff1a;

表 1 采集项说明
采集类型&＃xff1a;database

采集类型&＃xff1a;OS

AI_MANAGER

ai_manager是AI特性部署工具&＃xff0c;旨在为ai特性提供自动化、高效便捷的部署及卸载方式&＃xff0c;可通过指定模块名称、操作类型及参数文件进行相应ai特性的自动化部署和卸载&＃xff0c;实现了版本管理、操作日志记录及日志管理、安装信息记录等功能&＃xff0c;支持特性级横向扩展&＃xff0c;该工具目前仅支持ai_server的安装及卸载。

使用准备

• 项目部署路径为/dbs/AI-tools&＃xff0c;需保证该路径存在并有读写执行权限&＃xff0c;安装/卸载操作中会清理该路径下的内容&＃xff0c;不要将其它文件保存在该路径下。
• 需要安装python3环境及特性所需python库,依赖库请参考包内的requirements.txt文件。
• 如开启https&＃xff0c;需准备相应的根证书&＃xff0c;秘钥文件及密码。
• agent节点已启动GaussDB Kernel数据库。
• 安装agent节点须使用集群用户操作。
• 如果agent节点集群用户的~/.bashrc文件中没有正确的PGHOST配置&＃xff0c;需要将PGHOST配置到/dbs/AI-tools/ai_env文件中。

示例

安装命令示例&＃xff1a;

python3 ai_manager --module anomaly_detection --action install --param_file opengauss.json


卸载命令示例&＃xff1a;

python3 ai_manager --module anomaly_detection--action uninstall --param_file opengauss.json


参数文件示例&＃xff1a;


"scene": "opengauss", # 场景&＃xff0c;openGauss安装server及agent,huaweiyun仅安装server
"module": "anomaly_detection", # 模块&＃xff08;特性&＃xff09;名称&＃xff0c;目前仅支持anomaly_detection
"action": "install", # 操作类型&＃xff0c;支持install及uninstall
"ca_info":
"ca_cert_path": "/home/Ruby/CA_AI/ca.crt", # 根证书路径
"ca_key_path": "/home/Ruby/CA_AI/ca.crt.key", # 根证书秘钥路径
"ca_password": "GHJAyusa241~" # 根证书密码
,
"agent_nodes": [

"node_ip": "10.000.00.000", # agent节点IP
"username": "Ruby", # agent节点用户
"password": "password" # agent节点密码

],
"config_info":
"server":
"host": "10.000.00.000", # server部署节点IP&＃xff08;执行节点&＃xff09;
"listen_host": "0.0.0.0", # server 监听IP
"listen_port": "20060", # server 监听端口
"pull_kafka": "False" # 是否拉取kafka数据&＃xff0c;暂不支持拉取。
,
"database":
"name": "sqlite", # 数据存储方式&＃xff0c;支持sqlite、mongodb、influxdb
"host": "127.0.0.1", # 数据库ip
"port": "2937", # 数据库端口
"user": "Ruby", # 数据库用户
"size": "175000000", # mongodb 最大存储容量
"max_rows": "1000000" # mongodb 最大存储条数
,
"agent":
"cluster_name": "my_cluster", # 采集数据库的名称
"collection_type": "os", # 采集类型&＃xff0c;支持os、database、all
"collection_item": [["dn", "10.000.00.000", "33700"]], # agent节点采集数据类型&＃xff08;dn/cn&＃xff09;&＃xff0c;采集节点IP&＃xff0c;端口
"channel_capacity": "1000", # 队列容量
"source_timer_interval": "5S", # 采集间隔
"sink_timer_interval": "5S" # 发送间隔
,
"security":
"tls": "True" # 是否开启https